لایحه دو حزبی به دنبال مبارزه با سوء استفاده از هوش مصنوعی Deepfake با واترمارکینگ و منشأ است.

لایحه جدیدی که توسط گروهی از سناتورهای دو حزبی ارائه شده است، به دنبال مبارزه با سوء استفاده از تقلبی عمیق از هوش مصنوعی (AI) از طریق واترمارک کردن چنین محتواهایی است.

صورت حساب ، که توسط سناتور ماریا کانتول (D-WA)، سناتور مارشا بلکبرن (R-TN) و سناتور مارتین هاینریش (D-NM) ارائه شده است، یک روش استاندارد برای واترمارک کردن محتوای تولید شده توسط هوش مصنوعی پیشنهاد می کند.

محافظت از مبدأ محتوا و یکپارچگی از قانون رسانه ویرایش شده و جعلی عمیق (COPIED) نامگذاری شده است، حفاظت از سازندگان را تقویت می‌کند و کنترل‌هایی را بر روی انواع محتوایی که می‌توان روی آن‌ها هوش مصنوعی آموزش داد، ایجاد می‌کند.

طبق گفته کانتول، این لایحه “شفافیت بسیار مورد نیاز” را در محتوای تولید شده توسط هوش مصنوعی ارائه می کند و در عین حال “سازندگان، از جمله روزنامه نگاران محلی، هنرمندان و موسیقیدانان را در کنترل محتوای خود باز می گرداند.”

در صورت تصویب، این لایحه همچنین از ارائه‌دهندگان خدمات هوش مصنوعی مانند OpenAI می‌خواهد که کاربران را ملزم به جاسازی اطلاعات مربوط به منشأ محتوای تولیدی خود کنند. به‌علاوه، این باید به‌گونه‌ای اجرا شود که «قابل خواندن توسط ماشین» باشد و با استفاده از ابزارهای مبتنی بر هوش مصنوعی نتوان آن را دور زد یا حذف کرد.

کمیسیون تجارت فدرال (FTC) بر اجرای قانون COPIED نظارت خواهد کرد. تنظیم‌کننده نقض‌ها را به‌عنوان اعمال ناعادلانه یا فریبنده، مشابه سایر نقض‌های تحت قانون FTC در نظر می‌گیرد.

با معرفی هوش مصنوعی، با توجه به توانایی این فناوری در جمع آوری حجم عظیمی از داده ها از سراسر وب، بحث های زیادی در مورد پیامدهای اخلاقی آن وجود داشته است.

این نگرانی‌ها زمانی آشکار شد که غول فناوری مایکروسافت از تصاحب صندلی های هیئت مدیره در OpenAI عقب نشینی کرد.

“هوش مصنوعی به بازیگران بد این توانایی را داده است که از هر فرد، از جمله افراد در جامعه خلاق، تقلید از شباهت آنها بدون رضایت آنها و کسب سود از محتوای تقلبی، دیپ فیک بسازند.” سناتور بلکبرن گفت. 

لایحه پیشنهادی همزمان با 245% افزایش در کلاهبرداری ها می باشد. /a> و کلاهبرداری با استفاده از محتوای Deepfake. گزارشی از Bitget تخمین می زند که زیان این طرح ها تا سال 2025 به 10 میلیارد دلار می رسد.

در فضای رمزنگاری، کلاهبرداران از هوش مصنوعی برای جعل شخصیت‌های برجسته مانند ایلان ماسک و ویتالیک بوترین استفاده می‌کنند تا کاربران را فریب دهند.

در ژوئن 2024، یکی از مشتریان صرافی ارز دیجیتال OKX بیش از 2 میلیون دلار از دست داد که مهاجمان موفق شدند با استفاده از ویدئوهای دیپ فیک قربانی، امنیت پلتفرم را دور بزنند. یک ماه قبل، مقامات هنگ کنگ پلتفرم کلاهبرداری با استفاده از Elon را سرکوب کردند. شباهت ماسک برای گمراه کردن سرمایه گذاران.

در همین حال، غول فناوری Google اخیراً توسط National مورد انتقاد قرار گرفت مایکل مارکوت، بنیانگذار مرکز امنیت سایبری (NCC) به دلیل اقدامات پیشگیرانه ناکافی در برابر جعلی های عمیق هدفمند رمزارزها.